头视点标签的成本是改善细粒度头姿势估计算法的主要障碍。缺乏大量标签的一种解决方案正在使用自我监督的学习（SSL）。 SSL可以从未标记的数据中提取良好的功能，用于下游任务。因此，本文试图显示头部姿势估计的SSL方法之间的差异。通常，使用SSL的两个主要方法：（1）使用它以预先培训权重，（2）在一个训练期间除了监督学习（SL）之外的SSL作为辅助任务。在本文中，我们通过设计混合多任务学习（HMTL）架构并使用两个SSL预先文本任务，旋转和令人困惑来评估两种方法。结果表明，两种方法的组合在其中使用旋转进行预训练和使用令人难以用于辅助头的令人费示。与基线相比，误差率降低了23.1％，这与电流的SOTA方法相当。最后，我们比较了初始权重对HMTL和SL的影响。随后，通过HMTL，使用各种初始权重减少错误：随机，想象成和SSL。

GTFLAT, as a game theory-based add-on, addresses an important research question: How can a federated learning algorithm achieve better performance and training efficiency by setting more effective adaptive weights for averaging in the model aggregation phase? The main objectives for the ideal method of answering the question are: (1) empowering federated learning algorithms to reach better performance in fewer communication rounds, notably in the face of heterogeneous scenarios, and last but not least, (2) being easy to use alongside the state-of-the-art federated learning algorithms as a new module. To this end, GTFLAT models the averaging task as a strategic game among active users. Then it proposes a systematic solution based on the population game and evolutionary dynamics to find the equilibrium. In contrast with existing approaches that impose the weights on the participants, GTFLAT concludes a self-enforcement agreement among clients in a way that none of them is motivated to deviate from it individually. The results reveal that, on average, using GTFLAT increases the top-1 test accuracy by 1.38%, while it needs 21.06% fewer communication rounds to reach the accuracy.

As social media grows faster, harassment becomes more prevalent which leads to considered fake detection a fascinating field among researchers. The graph nature of data with the large number of nodes caused different obstacles including a considerable amount of unrelated features in matrices as high dispersion and imbalance classes in the dataset. To deal with these issues Auto-encoders and a combination of semi-supervised learning and the GAN algorithm which is called SGAN were used. This paper is deploying a smaller number of labels and applying SGAN as a classifier. The result of this test showed that the accuracy had reached 91\% in detecting fake accounts using only 100 labeled samples.

Bilevel programming has recently received attention in the literature, due to a wide range of applications, including reinforcement learning and hyper-parameter optimization. However, it is widely assumed that the underlying bilevel optimization problem is solved either by a single machine or in the case of multiple machines connected in a star-shaped network, i.e., federated learning setting. The latter approach suffers from a high communication cost on the central node (e.g., parameter server) and exhibits privacy vulnerabilities. Hence, it is of interest to develop methods that solve bilevel optimization problems in a communication-efficient decentralized manner. To that end, this paper introduces a penalty function based decentralized algorithm with theoretical guarantees for this class of optimization problems. Specifically, a distributed alternating gradient-type algorithm for solving consensus bilevel programming over a decentralized network is developed. A key feature of the proposed algorithm is to estimate the hyper-gradient of the penalty function via decentralized computation of matrix-vector products and few vector communications, which is then integrated within our alternating algorithm to give the finite-time convergence analysis under different convexity assumptions. Owing to the generality of this complexity analysis, our result yields convergence rates for a wide variety of consensus problems including minimax and compositional optimization. Empirical results on both synthetic and real datasets demonstrate that the proposed method works well in practice.

重要性采样（IS）是一种强大的蒙特卡洛（MC）方法，用于近似积分，例如在贝叶斯推论的背景下。在IS中，从所谓的提案分布中模拟样品，并且该提案的选择是实现高性能的关键。在自适应IS（AIS）方法中，一组建议是迭代改进的。 AIS是一种相关和及时的方法论，尽管仍有许多局限性尚待克服，例如，高维和多模式问题的维度诅咒。此外，汉密尔顿蒙特卡洛（HMC）算法在机器学习和统计数据中变得越来越流行。 HMC具有几个吸引人的特征，例如其探索性行为，尤其是在其他方法遭受的情况下，尤其是在高维目标中。在本文中，我们介绍了新型的汉密尔顿自适应重要性采样（HAIS）方法。 Hais使用平行的HMC链实现了两步自适应过程，每次迭代都合作。拟议的HAI有效地适应了一系列建议，从而提取了HMC的优势。 HAI可以理解为具有额外重采样步骤的通用分层AIS家族的特定实例。 HAIS在高维问题W.R.T.方面取得了重大的绩效提高。最先进的算法。我们讨论了HAI的统计特性，并在两个具有挑战性的例子中显示了其高性能。

由于临床实践所需的放射学报告和研究是在自由文本叙述中编写和存储的，因此很难提取相对信息进行进一步分析。在这种情况下，自然语言处理（NLP）技术可以促进自动信息提取和自由文本格式转换为结构化数据。近年来，基于深度学习（DL）的模型已适用于NLP实验，并具有令人鼓舞的结果。尽管基于人工神经网络（ANN）和卷积神经网络（CNN）的DL模型具有显着潜力，但这些模型仍面临临床实践中实施的一些局限性。变形金刚是另一种新的DL体系结构，已越来越多地用于改善流程。因此，在这项研究中，我们提出了一种基于变压器的细粒命名实体识别（NER）架构，以进行临床信息提取。我们以自由文本格式收集了88次腹部超声检查报告，并根据我们开发的信息架构进行了注释。文本到文本传输变压器模型（T5）和covive是T5模型的预训练域特异性适应性，用于微调来提取实体和关系，并将输入转换为结构化的格式。我们在这项研究中基于变压器的模型优于先前应用的方法，例如基于Rouge-1，Rouge-2，Rouge-L和BLEU分别为0.816、0.668、0.528和0.743的ANN和CNN模型，同时提供了一个分数可解释的结构化报告。

比尼奎斯特（FTN）信号更快可以提高光谱效率（SE）；然而，以高计算复杂性为代价，以消除引入的隔膜间干扰（ISI）。由ML在物理层（PHY）问题中取得成功的动机，在本文中，我们研究了ML在降低FTN信号传导的检测复杂性方面的使用。特别是，我们将FTN信号检测问题视为一项分类任务，其中接收的信号被视为属于所有可能类样本的一个未标记的类样本。如果我们使用一个偏离分类器，则所有可能的类样本的集合属于$ n $维空间，其中$ n $是传输块长度，具有巨大的计算复杂性。我们提出了一个低复杂分类器（LCC），该分类器（LCC）利用FTN信号的ISI结构来执行$ n_p \ ll n $ dimension空间中的分类任务。拟议的LCC由两个阶段组成：1）离线预先分类，该预先分类在$ n_p $二维空间中构建标记的类样品和2）在线分类，其中发生了接收样品的检测。提出的LCC也会扩展以产生软输出。仿真结果显示了拟议的LCC在平衡性能和复杂性方面的有效性。

脑病理通常表现为组织的部分或完全丧失。许多神经影像学研究的目的是捕获有关感兴趣的临床变量（例如疾病进展）的组织变化的位置和数量。形态分析方法捕获了与临床变量有关的组织分布或其他含量的兴趣分布的局部差异。我们建议通过基于不平衡的最佳传输的附加特征提取步骤来增强形态分析。最佳运输特征提取步骤增加了导致空间分散组织损失的病理学的统计能力，从而最大程度地减少了由于空间未对准或大脑拓扑差异而对变化的敏感性，并将由于组织位置而导致的变化而分离。我们证明了在阿尔茨海默氏病的OASIS-1研究的体积形态学分析的背景下，提出的最佳运输特征提取步骤。结果表明，所提出的方法可以识别组织的变化和差异，而这些差异是无法测量的。

动态离散选择模型被广泛用于回答个人当前选择具有未来影响的设置中的实质性和政策问题。但是，这些模型的估计在高维环境中通常是计算密集型和/或不可行的。实际上，即使指定公用事业/国家过渡如何进入代理商的决定的结构，当我们没有指导理论时，在高维度中都有挑战。在本文中，我们介绍了动态离散选择模型的半参数公式，该模型还包含了一组高维状态变量，此外除了参数实用程序函数中使用的标准变量外。高维变量可以包括所有不是关注的主要变量的变量，但可能会影响人们的选择，并且必须包括在估计过程中，即控制变量。我们提出了一种数据驱动的递归分区算法，该算法通过考虑选择和状态转换的变化来降低高维状态空间的维度。然后，研究人员可以使用他们选择的方法使用第一阶段的离散状态空间来估计问题。我们的方法可以减少估计偏差，并同时使估计可行。我们提供了蒙特卡洛模拟，以证明我们的方法的性能与我们忽略高维解释变量集的标准估计方法相比。

动机：在超声引导活检过程中检测前列腺癌是具有挑战性的。癌症的高度异质外观，超声伪像的存在和噪声都导致了这些困难。高频超声成像的最新进展 - 微拆卸 - 在高分辨率下大大提高了组织成像的能力。我们的目的是研究专门针对微型启动引导的前列腺癌活检的强大深度学习模型的发展。对于临床采用的模型，一个关键的挑战是设计一种可以确定癌症的解决方案，同时从粗略的组织病理学测量中学习引入弱标签的活检样品。方法：我们使用了从194例接受了前列腺活检的患者中获得的微型图像的数据集。我们使用共同教学范式来训练一个深层模型，以处理标签中的噪声，以及一种证据深度学习方法进行不确定性估计。我们使用准确性与信心的临床相关指标评估了模型的性能。结果：我们的模型实现了对预测不确定性的良好估计，而面积为88 $ \％$。联合结合中的共同教学和证据深度学习的使用比单独单独的不确定性估计明显更好。在不确定性估计中，我们还提供了与最先进的比较。